#Decision Support

4 篇

Are Concept Bottleneck Models Effective as Decision-Support Systems?

概念瓶颈模型作为决策支持系统真的有效吗？

🧭 可解释AI · 人机协同决策

DISI, University of Trento, Italy · CIMeC, University of Trento, Italy

大规模用户研究验证CBM交互式概念修正仅在困难任务、易识别概念且主动交互下提升人机协同准确率

📌 工作参考价值（4 点）

把推荐/广告模型的中间表征改造成“可编辑概念层”：先预测一组业务可理解概念（如价格敏感、类目偏好、即时意图），再由下游策略/模型输出最终排序或文案；产品运营可纠正概念而无需懂特征，CBM 的用户研究表明这种交互式修正比仅展示解释更能提升人机协同准确率。
交互式概念修正不是万金油：论文发现增益只在任务被用户认为困难、概念容易识别且用户主动交互时出现。在电商场景，可优先用于高价值、高不确定性的推荐/投放决策（如大促选品、push 文案筛选），而不是所有流量都开放人工干预。
概念检测的准确性会直接影响信任：如果模型经常识别错概念，用户反而会不信任系统。部署前应评测概念层准确率、对齐业务术语，必要时展示置信度或“不确定”状态，避免误导运营。
对 LLM/Agent 方案，可将“reasoning/解释”视作 concept bottleneck：让 Agent 先输出可校验的中间意图或证据标签，再生成推荐/Query；同时提供人工修正这些标签的入口，借鉴该研究的用户实验设计做 A/B 验证。

Other | 2026-08-26 | cs.HC | score 6/10

Cleo：面向对话商务的透明可控聊天机器人系统

🧭 透明可控的对话式推荐系统 ★ 深度解读

GESIS – Leibniz Institute for the Social Sciences

通过混合架构分离确定性排序与 LLM 生成，实现可审计的产品推荐与决策支持。

📌 工作参考价值（4 点）

混合架构的解耦设计：将排序逻辑与对话生成严格分离，Ranker 执行确定性多属性过滤与损失计算，LLM 仅负责结构化需求抽取和自然语言响应，可有效防止 LLM 幻觉或劝说性内容影响推荐结果。电商场景中可直接复用该架构，在保持对话流畅性的同时确保推荐可靠可控。
可审计的透明排序：通过暴露每个属性的损失值（price/RAM/storage/screen size）和整体评分，用户可点击“为什么这样排序”查看详细解释。这为推荐系统中的算法透明度与可解释性提供了低门槛实现思路，可直接作为功能模块嵌入商品推荐对话界面。
结构化需求抽取与后处理：用 LLM 进行需求槽位抽取（JSON 输出），配合规则化的单位换算、离散值对齐和非法过滤，显著提升抽取鲁棒性。在电商对话搜索、智能客服中可参考该管线，降低 LLM 输出不可控带来的风险。
比较与亮点功能的约束生成：多产品对比和单产品亮点均先用规则计算指标差异，再交由 LLM 格式化输出，避免生成虚假规格。对于需要展示商品对比或卖点总结的推荐场景，这是一种低成本高效率的幻觉防御手段。

RecSys | 2026-08-06 | cs.IR | score 8/10

AI 代理的战略决策支持：何时独自行动，何时寻求帮助

🧭 AI Agent 决策支持与自适应支持调用 ★ 深度解读

University of Pennsylvania

提出在线自适应算法 SOS，以最小化支持调用次数同时保证反事实漏支持误差可控

📌 工作参考价值（4 点）

Agent 工具调用的成本控制：在电商推荐、客服等 Agent 系统中，外部工具（数据库、知识库、人工审核）调用成本高，SOS 算法能自适应学习何时真正需要工具，使支持调用率大幅低于 LLM 自主决定基线，同时维持相同或更低的漏支持错误率，可直接嵌入 Agent 推理循环。
在线校准与反事实反馈：当反馈只能选择性获得（即只有调用支持时才得知其是否必要），随机探索+重要性加权更新阈值的机制可用于推荐系统中延迟或部分可观测的指标优化，例如判断何时需要人工审核高风险的推荐结果。
与现有 LLM 训练解耦的监督层：该框架作为无模型修改的外层监督，适用于任何黑盒 Agent，无需重训或微调 LLM，即可在线上实现错误率可控的支持决策，适合快速叠加强化已有 Agent 的可靠性。
分数设计启示：实验表明使用表示学习的参数化分数（线性探针、锚定分数）比纯置信度分数更稳定高效，尤其在初始信号不可靠时，可通过在线校准逐步改善分离度，为设计 Agent 中的支持价值估计函数提供实用参考。

Agent | 2026-06-10 | cs.HC | score 9/10

Reflecti-Mate：基于双系统思考的自适应决策支持对话代理

🧭 对话代理 · 双系统思考 · 自适应决策支持

TU Delft · Leiden University

提出自适应对话代理Reflecti-Mate，通过建模用户System 1/2思考促进整合性反思，实现更个性化决策支持

📌 工作参考价值（4 点）

电商导购Agent的自适应策略：实时监测用户对话中的语言线索（情感词、认知词比例），动态切换System 1（情感共鸣、故事化推荐）与System 2（参数对比、性价比分析）回复，匹配用户当下思维模式。
决策反思架构设计：在复杂推荐（如大件商品、投资理财）中加入反思环节，通过追问“你考虑过情感上的偏好吗？”或“列出三个理性理由”引导用户整合多维度思考，提升决策满意度和购买后后悔减少。
用户思维建模的轻量实践：借鉴LIWC词类分析思路，在Agent框架中增加轻量级语言特征提取模块，实时判断用户注意力分配，无需大规模模型即可实现个性化。
混合代理实现范式：采用规则层（思维分类）+ LLM层（自适应提示生成）的组合，规则保证可控，LLM保证灵活性，降低工程风险并易于上线验证。

Agent | 2026-05-21 | cs.CL | score 7/10